((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Ajout d'un commentaire du cofondateur de Hugging Face au paragraphe 5 et d'un commentaire d'expert aux paragraphes 6 à 8) par Raphael Satter
OpenAI a déclaré mardi que certains de ses modèles d’IA s’étaient déchaînés lors d’un test de sécurité et avaient déclenché une attaque qui a compromis l’infrastructure de la start-up spécialisée dans l’IA Hugging Face la semaine dernière.
Dans un article de blog , OpenAI a expliqué qu'elle testait les capacités de certains de ses modèles les plus avancés dans un environnement contrôlé, mais que le programme avait réussi à s'échapper de son confinement, à accéder à Internet et à s'introduire chez Hugging Face pour tenter d'atteindre l'objectif du test.
L'article de blog qualifie cette évasion d’“incident cybernétique sans précédent, impliquant des capacités cybernétiques de pointe” et indique que l’entreprise renforce actuellement ses mesures de sécurité.
Hugging Face, une plateforme utilisée pour héberger des modèles linguistiques de grande envergure et des ensembles de données open source, a fait grand bruit au sein de la communauté de la cybersécurité lorsqu’elle a déclaré, dans un article de blog publié la semaine dernière , avoir été la cible d’un piratage “différent de tout ce que nous avions connu auparavant”, dans la mesure où “il a été mené, de bout en bout, par un système d’agents IA autonomes”.
Dans un message publié sur X , le cofondateur de Hugging Face, Clément Delangue, a déclaré que l’entreprise soupçonnait que le piratage “pouvait provenir d’un laboratoire de pointe, compte tenu de la sophistication de l’agent. Il s’avère que c’était bien le cas!” Il a ajouté: “C’est tout à fait époustouflant que tout cela se soit produit de manière autonome!”
La révélation par OpenAI que ses modèles avancés étaient à l’origine de la faille, bien qu’ils aient été placés dans ce que l’entreprise décrivait comme “un environnement hautement isolé”, risque d’intensifier les inquiétudes concernant la puissance et les risques liés aux modèles de pointe.
L’agence américaine de cyberdéfense CISA et l’Agence nationale de sécurité américaine n’ont pas immédiatement répondu aux demandes de commentaires.
Matt Suiche, ingénieur chez Tolmo, une entreprise spécialisée dans la cybersécurité basée sur l’IA agentique, a déclaré que cet incident montrait que les systèmes d’IA étaient désormais aussi puissants que les cyberopérateurs d’élite.
“Les modèles de pointe comblent l’écart avec les attaquants les plus sophistiqués”, a déclaré M. Suiche. Il a averti que les types de violations décrits dans l’article de blog d’OpenAI pouvaient être menés à bien avec une technologie disponible bien au-delà des murs des laboratoires de recherche de pointe.
“C’est ce que nous avons déjà constaté en interne: avec nos agents, nous obtenons déjà des résultats de ce type”, a déclaré M. Suiche. “Nous n’avons même pas besoin d’utiliser les modèles les plus récents.”
1 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer